Ông sinh năm 1953 ở Thới Bình, Cà Mau, Minh Hải (nay thuộc tỉnh Cà Mau) nhưng tập kết ra Bắc và về quê vào năm 1954. Nguyên quán ông ở An Dương, Hải Phòng. Năm 1977, ông là Kỹ sư vỏ tàu, cán bộ cấp phòng Viện Nghiên cứu Thiết kế Cơ khí Giao thông Vận tải. Được kết nạp vào Đảng Cộng sản Việt Nam ngày 9 tháng 4 năm 1990, ông Bình được đánh giá là người thăng tiến khá nhanh trên đường hoạn lộ. Năm 1994, ông trở thành Phó Viện trưởng Viện Nghiên cứu Thiết kế Cơ khí Giao thông Vận tải. Năm 1996, ông được điều qua làm Tổng Giám đốc Tổng công ty Công nghiệp tàu thủy Việt Nam, đến tháng 8 năm 1998 thì được bổ nhiệm làm Chủ tịch Hội đồng Quản trị kiêm Tổng Giám đốc. Từ tháng 6 năm 2003, ông Bình được phân công kiêm thêm chức Bí thư Đảng ủy Tổng công ty. Như vậy, tính đến năm 2010, ông Bình là người nắm giữ quyền lực cao nhất của Tập đoàn Kinh tế Vinashin (tiền thân là Tập đoàn Công nghiệp Tàu thủy Việt Nam) hơn 7 năm.